\chapter{计量经济学三大检验：LR检验、W检验和LM检验}

对于原假设
\[ H_0:\bm{R\beta}=r \]
其中$ \bm{R} $是已知常数构成的$ q\times k $阶矩阵，$ \bm{r} $是$ q\times 1 $的已知向量。

\section{似然比LR检验}
在极大似然估计下，似然比定义为,
\[ \lambda=\frac{L(\bm{\hat \beta_r},\hat \sigma_r)}{L(\bm{\hat \beta_{ur}},\hat \sigma_{ur})} \]
其中，分子表示有约束的极大似然值，分母表示无约束的极大似然值。直观上，分子不会大于分母，如果约束条件正确，那么$ \lambda $会接近1。一个越小的$ \lambda $会给出拒绝的证据。为此，构造一个关于$ \lambda $的卡方统计量，
\[ LR=-2\ln \lambda\sim \chi^2(q) \]
该检验不仅需要计算约束模型，也需要计算无约束模型。

\section{沃尔德W检验}
W检验只需计算无约束$ \bm{\hat \beta} $。

向量$ \bm{R\hat \beta-r} $表示估计值适合约束的程度，越趋近0，越支持原假设。因此，可以用$ \bm{(R\hat \beta-r)'(R\hat \beta-r)} $表达接近0的程度，然后将其标准化，于是，
\[\bm{(R\hat \beta-r)'[RVar(\beta)R']^{-1}(R\hat \beta-r)}\sim \chi^2(q) \]
其中$ Var(\bm{\beta}) $中的$ \sigma^2 $用其估计值$ \hat \sigma^2=\bm{e'e}/n $替代后，就是沃尔德统计量，
\[\frac {\bm{(R\hat \beta-r)'[R(X'X)^{-1}R']^{-1}(R\hat \beta-r)}}{\hat \sigma^2}\sim \chi^2(q) \]

\section{拉格朗日乘数LM检验}
LM检验只需计算受约束模型。\textbf{多数实证中，计算受约束模型是最方便的，因此该检验也是最流行的。}

在极大似然估计中，在真实模型是无约束模型时，其得分向量为0。其中得分向量表达为，
\[s(\bm{\theta})=\begin{bmatrix}
	\frac{\partial l}{\partial \bm{\beta}}\\
	\frac{\partial l}{\partial \sigma^2}
\end{bmatrix}
=
\begin{bmatrix}
\frac{1}{\sigma^2} \bm{X'u}\\
-\frac{n}{2\sigma^2}+\frac{\bm{u'u}}{2\sigma^4}
\end{bmatrix}
\]
如果将受约束模型代入上式,则得分向量不必然为0，但若约束为真，则趋近于0。在线性模型假设下，受约束下得到的残差和方差分别为，
\begin{align*}
\bm{\hat e_r} & =\bm{y-X\hat \beta_r}\\
\hat \sigma_r^2 &=\bm{\hat e'_r\hat e_r}
\end{align*}
从而受约束得分向量为，
\[s(\bm{\theta_r})=\begin{bmatrix}
\frac{\partial l}{\partial \bm{\beta_r}}\\
\frac{\partial l}{\partial \sigma^2_r}
\end{bmatrix}
=
\begin{bmatrix}
\frac{1}{\hat \sigma^2_r} \bm{X'\hat e_r}\\
0
\end{bmatrix}
\]


因此，可以将$ s(\bm{\theta}) $标准化，
\begin{align*}
 LM & = s(\bm{\theta_r})'Var^{-1}[s(\bm{\theta_r})]s(\bm{\theta_r})\\
 & =\frac{n\bm{\hat e'_rX(X'X)^{-1}X'\hat e_r}}{\bm{\hat e'_r\hat e_r}}\\
 & = nR_e^2\sim \chi^2(q)
\end{align*}
其中$ R^2_e $为$ \bm{\hat e_r} $对$ \bm{X} $回归的拟合优度。

因此，在极大似然估计和OLS等价时，可以使用两步估计得到LM统计量。
\begin{enumerate}
	\item 计算$ \hat \beta_r $；
	\item 计算$ \bm{\hat e_r} $对$ \bm{X} $回归的$ R_e^2 $。
\end{enumerate}

